#Hierarchical RAG

3 篇

Compiling Autoregressive LLM Control into Policy-Exact Parallel Inference for Hierarchical RAG

将自回归LLM控制编译为策略精确的并行推理用于层级RAG

🧭 层级RAG控制并行编译 ★ 深度解读

MemTensor (Shanghai) Technology Co., Ltd. · China Haisum Engineering Co., Ltd. · The Hong Kong University of Science and Technology (Guangzhou) · Shanghai Jiao Tong University

把层级RAG受限解码编译为一次prefill+树因果probe，零输出token复制串行策略

📌 工作参考价值（4 点）

对电商/Agent里任何 bounded-horizon constrained LLM controller（选品、路由、工具/query推荐、多步筛选），可把动作空间编译成 action-prefix tree，用 root prefill + tree-causal probe 一次前向求出所有可达状态；零解码 token、深度-2，直接去掉 JSON 协议失败和串行延迟。
若业务上「顺序选择有历史依赖」但最终只取集合，可用 probe 计算 order-marginalized posterior，并用 branch-and-bound MAP certificate 得到精确集合选择；避免把顺序当成集合决策的 serialization artifact。
上线前用 interaction mass Iseq = KL(P_AR || P_U) 诊断历史依赖强度；若 Iseq 大，说明 unary logit shortcut 不能替代串行策略，可以用同一 probe 低成本判断何时需要保留自回归条件。
注意工程限制：bf16 下 near-tie 翻转与跨硬件/跨后端差异同量级；需要强 parity 就换 fp32 或对低 margin round 回退串行；horizon>3 时 probe 宽度阶乘增长，建议改成 staged/chunked 混合执行。

RAG | 2026-10-22 | cs.IR | score 8/10

A Matryoshka Hierarchical RAG for Efficient Multi-Hop Question Answering

Matryoshka 层次化 RAG 实现高效多跳问答

🧭 层次化 RAG · Matryoshka 与实体预算 ★ 深度解读

Polytechnic University of Marche · University of Modena and Reggio Emilia

结合 Matryoshka 嵌套表示与层次聚类 DAG，用实体预算与锚定控制实现高效多跳检索，在三个多跳 QA 基准上取得最佳质量与效率

📌 工作参考价值（4 点）

用 Matryoshka embedding 做分层索引替代重型图索引：电商商品/内容知识库可按类目→子类目→商品构建层次聚类，上层用低维前缀（如 64/128 维）、底层用全维（768 维），响应时间比 FAISS 全维检索降低约 35-47%，聚类质量不降。无需 LLM 摘要或 KG 构建，离线成本比 GraphRAG/LightRAG 低几个数量级。
实体预算迭代检索替代 LLM planning：在商品多跳场景（如“某系列配件的兼容型号”）中，用查询和已检索文档的实体数量控制每轮检索文档数，用实体 Jaccard 重排候选，避免多次 LLM 调用，同时保持多跳覆盖能力。可迁移到 Agent 的检索工具中，降低 query 成本。
锚定机制防 query drift：迭代检索时动态提高原始 query 权重 β_t = |R_{t-1}|/K，平衡累积上下文和原问题，防止语义漂移。在 Agent 多轮检索或 PRF 场景中可直接复用，作为轻量正则。
p-nearest 冗余覆盖容错：每个节点关联多个父簇（p=2）可缓解贪婪自顶向下无回溯导致的漏检；在类目体系不完美或边界模糊的电商知识库中，保留多条路径能提高召回鲁棒性。

RAG | 2026-10-01 | cs.IR | score 8/10

Matryoshka Representation Learning Hierarchical RAG Multi-hop QA Entity-aware Retrieval Query Drift Efficient Retrieval

Mind the Gap: Bridging Behavioral Silos with LLMs in Multi-Vertical Recommendations

弥合行为孤岛：利用LLM提升多垂域电商推荐冷启效果

🧭 多垂直推荐 · LLM特征工程 ★ 深度解读

DoorDash Inc.

用分层RAG从富数据垂域推断用户分类偏好特征，注入排序模型解决冷启问题

📌 工作参考价值（4 点）

LLM作语义特征提取器：对用户餐厅订单与搜索等非结构化行为序列，通过分层RAG生成四层商品分类（L1-L4）的偏好特征，作为稠密用户画像直接注入排序模型，可迁移至电商多品类推荐冷启场景。
分层推理 + 置信度过滤：采用 cascade inference 从粗到细约束生成空间，设置 temperature=0.1、置信度阈值 0.8 并强制只输出预定义分类节点，显著减少幻觉并保证特征一致性，该 prompt 设计方法可直接复用。
工程降本关键措施：prompt caching 将指令与全量分类静态部分缓存，仅追加动态行为序列；按用户新行为触发 just-in-time 特征更新，综合降低 LLM 调用成本约 80%。
MTL 特征接入方式：将变长 taxonomy ID 列表经共享 embedding 表映射后做 mean pooling，再与已有 user/item 特征拼接送入共享 MLP trunk，实现即插即用，不改变模型结构即带来全人群 AUC 相对提升 4.4%。

RecSys | 2026-06-04 | cs.IR | score 10/10

Multi-Vertical Recommendation LLM Cold-Start Hierarchical RAG Feature Engineering MTL